она и далека от нашей удивительной анатомии и физиологии?
В конце концов, именно так чувствовал себя Дарвин, когда понял, что возможности человеческой машины возникли без участия чего-то похожего на человеческий интеллект[197]. Он не был злобным человеком, не стремился окончательно лишить мир флера волшебства или таинственности своей теорией естественного отбора, не предусматривающей места для Создателя. Как раз наоборот. Рассмотрим заключительные слова книги «Происхождение видов»: «Есть величие в этом воззрении, по которому жизнь с ее различными проявлениями Творец первоначально вдохнул в одну или ограниченное число форм; и между тем как наша планета продолжает вращаться согласно неизменным законам тяготения, из такого простого начала развилось и продолжает развиваться бесконечное число самых прекрасных и самых изумительных форм»[198].
Это не занудное метафизическое сочинение. Представление Дарвина о жизни без Творца обладает «величием» и выражается почти религиозным чувством благоговения. Возможно, однажды мы почувствуем то же самое и по отношению к нашим нечеловеческим машинам.
Общий искусственный интеллект
Древнегреческий поэт Архилох однажды написал: «Лиса знает много секретов, а еж – один, но самый главный». Исайя Берлин, который нашел эту таинственную строку в сохранившихся обрывках из поэзии Архилоха, как известно, использовал ее как метафору для различения двух типов людей: тех, кто знает немного о многом (лисы), и тех, кто знает много о малом (ежи)[199]. В наших рассуждениях о людях и машинах мы можем переформулировать эту метафору. На данный момент машины – это ежи, каждый из которых очень силен в какой-то чрезвычайно специфической, узко определенной задаче – например, Deep Blue в шахматах, или AlphaGo в игре го, – но совершенно бесполезен для других задач. А люди – это гордые лисы, теперь машины могут легко побить их в некоторых видах деятельности, но люди все еще могут превзойти их во многих других.
Для многих исследователей ИИ интеллектуальный Святой Грааль заключается в создании машин, которые станут лисами, а не ежами. По их терминологии, они хотят создать «общий искусственный интеллект» (ОИИ) с широкими возможностями, а не «узкий искусственный интеллект» (УИИ), который может выполнять только очень конкретные задания[200]. Именно это интересует таких футурологов, как Рэй Курцвейл и Ник Бостром. Однако эти усилия пока не увенчались успехом, и для критиков недостижимость ОИИ стала еще одним поводом для скептического отношения к возможностям машин. Среди пуристов существует мнение, что только ОИИ является «реальным» ИИ и что без этих общих возможностей машины никогда не станут «настоящими соперниками» людей в выполняемой ими работе[201].
Говорят, что создание ОИИ станет одним из поворотных моментов в истории человечества – возможно, главным. Идея заключается в том, что если машины будут обладать «общими» возможностями и окажутся способны выполнять широкий спектр задач лучше, чем люди, то создание еще более способных машин станет для них лишь вопросом времени. В этот момент, как полагают, произойдет «интеллектуальный прорыв»: машины будут бесконечно совершенствоваться по сравнению с теми, что были раньше, а их возможности будут расти в постоянно ускоряющемся потоке рекурсивного самосовершенствования. Считается, что этот процесс приведет к появлению машин со «сверхразумом»; некоторые называют его «сингулярностью». Такие машины станут «последним изобретением, которое придется породить человеку», писал Ирвинг Джон Гуд, оксфордский математик, представивший возможность такого интеллектуального прорыва: все, что человек может изобрести, смогут улучшить машины[202].
Перспектива появления таких чрезвычайно способных машин с ОИИ беспокоит Стивена Хокинга («это может означать конец человечества»), Илона Маска («это опаснее, чем Северная Корея») и Билла Гейтса («не понимаю, почему некоторых людей это не беспокоит»), хотя их опасения не всегда одинаковы[203]. Один из страхов заключается в том, что людям, ограниченным в своих возможностях сравнительно черепашьим темпом эволюции, будет очень трудно не отставать от машин. Другая причина заключается в том, что эти машины, возможно, сами того не желая, могут начать преследовать цели, противоречащие целям людей и, в конце концов, нас уничтожат. Один мысленный эксперимент, например, представляет себе ОИИ, которому поручено производить скрепки настолько эффективно, насколько это возможно; история заканчивается тем, что он превращает «сначала всю землю, а затем все бо́льшую часть космоса в производственные мощности по производству скрепок» и, стремясь достичь поставленной цели, безжалостно вытесняет людей[204].
Эксперты расходятся во мнениях относительно того, сколько времени может пройти, прежде чем мы действительно окажемся в таких условиях. Одни считают, что до появления ОИИ осталось несколько десятилетий, другие говорят, что несколько веков; одно недавнее исследование пришло к маловероятному выводу, что это произойдет в 2047 году[205]. Сегодня мы действительно видим некоторые небольшие шаги в направлении «общих» возможностей, хотя это всего лишь очень ранние и примитивные примеры. Например, для своего портфеля инноваций DeepMind разработала машину, способную конкурировать с людьми в 49 различных видеоиграх компании Atari. Единственная информация, которую получает эта машина, – это пиксельная модель на экране компьютера и количество очков, которые она выиграла в игре; тем не менее, она смогла научиться играть в каждую отдельную игру, зачастую достигая такого уровня, на котором она была способна соперничать с лучшими игроками[206]. Это своего рода общая способность, столь привлекательная для энтузиастов ОИИ.
Подобные разговоры об «интеллектуальных прорывах» и «сверхразуме» могут быть захватывающими. Но в рассуждениях о будущем труда значение ОИИ сильно преувеличивается по сравнению с УИИ. Для исследователей искусственного интеллекта отсутствие ОИИ – важный недостаток; но в экономике оно является гораздо менее значимым ограничением для автоматизации, чем принято считать. Например, если конкретная работа заключается в выполнении десяти задач, есть два способа, с помощью которых прогресс в ИИ может заставить ее исчезнуть. Один из них заключается в создании ОИИ, способном самостоятельно выполнять все десять задач; другой предполагает изобретение десяти различных УИИ, каждый из которых способен выполнять только одну из связанных с ней задач. Наше увлечение ОИИ и созданием машин, которые обладают общими способностями, похожими на человеческие, рискует отвлечь нас от того, насколько мощными могут быть машины без ОИИ. Нет необходимости строить единую машину по образцу человека, которая сможет в одночасье вытеснить много работников. Постепенного накопления целого ряда машин, обладающих узкими, но впечатляющими способностями, будет достаточно для выполнения индивидуальных задач, которыми сейчас занимаются люди. Короче говоря, думая о будущем труде, мы должны остерегаться не одной всемогущей лисы, а целой армии трудолюбивых ежей.
Вернемся к экономистам
Революция прагматиков в ИИ имела серьезные последствия и для экономистов. В последние несколько лет она подорвала гипотезу ОЛМ.
Когда в 2003 году Дэвид Отор и его коллеги впервые
